Это типичная задача "на минимакс"

Длина полосы будет равна длине желоба и на объем не влияет. Объем будет максимальный, если поперечное сечение будет иметь наибольшую возможную площадь.

Пусть х - верхнее основание трапеции. S(x) - функция площади трапеции, которую необходимо вывести, а затем найти максимум этой функции на промежутке (0;11).

S(x)=(x+7)/2 *h,   h - высота трапеции, которую несложно выразить через х, затем выражение h(x) подставить в S(x)  и решить  S’(x)=0, чтобы найти точку максимума.

Дальше самостоятельно.  И напишите ответ.